Địa bàn hai phường Châu Phú A, Châu Phú B, nằm tại ngã ba sông Châu Đốc - Vĩnh Tế, ở phía bờ đông sông kênh Vĩnh Tế, vào thời nhà Nguyễn là đất thành Châu Đốc.[4]

Từ những năm 1849, Nguyễn Tri Phương và Doãn Uẩn đã kiến nghị lên vua Tự Đức về việc cho rời tỉnh thành An Giang (đương thời là thành Châu Đốc tức thành Châu Phú, huyện Tây Xuyên) về đất Long Sơn, huyện Đông Xuyên. Tuy nhiên, việc bàn này không được chuẩn y, mà vẫn để như cũ.[5]

Dưới thời Việt Nam Cộng hòa, địa bàn phường Châu Phú A hiện nay là một phần xã Châu Phú thuộc quận Châu Phú, tỉnh Châu Đốc.Sau năm 1975, xã Châu Phú được chia thành hai xã Châu Phú A và Châu Phú B thuộc thị xã Châu Đốc, tỉnh An Giang.

Ngày 25 tháng 4 năm 1979, Hội đồng Chính phủ ban hành Quyết định 181-CP năm 1979[1]. Theo đó:

• Sáp nhập 1/2 ấp Châu Thới 1 và 1/2 ấp Châu Thới 2 của xã Châu Phú A (theo đường rãnh lòng kinh Vĩnh tế, qua lòng kinh cầu số 4 đến giữa lộ núi Sam – Châu Đốc) vào xã Châu Phú B
• Chuyển xã Châu Phú A thành phường Châu Phú A.